Comparing BilevelJuMP.jl Formulations: Support Vector Regression Hyperparameter Tuning

In this technical report, we compare multiple reformulation techniques and solvers that can be used with the Julia package BilevelJuMP. We focus on the special case of Hyperparameter Tuning for Support Vector Regression. We describe a bilevel model for the problem in question. Then we present code for generating data and models that solve the problem. Finally, we present results and a brief analysis.Comment: arXiv admin note: substantial text overlap with arXiv:2205.0230

Flexible Differentiable Optimization via Model Transformations

We introduce DiffOpt.jl, a Julia library to differentiate through the solution of optimization problems with respect to arbitrary parameters present in the objective and/or constraints. The library builds upon MathOptInterface, thus leveraging the rich ecosystem of solvers and composing well with modeling languages like JuMP. DiffOpt offers both forward and reverse differentiation modes, enabling multiple use cases from hyperparameter optimization to backpropagation and sensitivity analysis, bridging constrained optimization with end-to-end differentiable programming. DiffOpt is built on two known rules for differentiating quadratic programming and conic programming standard forms. However, thanks ability to differentiate through model transformation, the user is not limited to these forms and can differentiate with respect to the parameters of any model that can be reformulated into these standard forms. This notably includes programs mixing affine conic constraints and convex quadratic constraints or objective function

A Multicut Approach to Compute Upper Bounds for Risk-Averse SDDP

Stochastic Dual Dynamic Programming (SDDP) is a widely used and fundamental algorithm for solving multistage stochastic optimization problems. Although SDDP has been frequently applied to solve risk-averse models with the Conditional Value-at-Risk (CVaR), it is known that the estimation of upper bounds is a methodological challenge, and many methods are computationally intensive. In practice, this leaves most SDDP implementations without a practical and clear stopping criterion. In this paper, we propose using the information already contained in a multicut formulation of SDDP to solve this problem with a simple and computationally efficient methodology. The multicut version of SDDP, in contrast with the typical average cut, preserves the information about which scenarios give rise to the worst costs, thus contributing to the CVaR value. We use this fact to modify the standard sampling method on the forward step so the average of multiple paths approximates the nested CVaR cost. We highlight that minimal changes are required in the SDDP algorithm and there is no additional computational burden for a fixed number of iterations. We present multiple case studies to empirically demonstrate the effectiveness of the method. First, we use a small hydrothermal dispatch test case, in which we can write the deterministic equivalent of the entire scenario tree to show that the method perfectly computes the correct objective values. Then, we present results using a standard approximation of the Brazilian operation problem and a real hydrothermal dispatch case based on data from Colombia. Our numerical experiments showed that this method consistently calculates upper bounds higher than lower bounds for those risk-averse problems and that lower bounds are improved thanks to the better exploration of the scenarios tree

Mutação rara em homozigotia no gene do recetor da hormona libertadora das gonadotrofinas (GNRHR) em doente com hipogonadismo hipogonadotrófico isolado congénito

Trabalho apresentado como poster e depois seleccionado para comunicação oral.INTRODUÇÃO: O hipogonadismo hipogonadotrófico isolado congénito (HHI) caracteriza-se pela falência parcial ou completa do desenvolvimento pubertário na maioria dos casos devido à falta de estímulo das gonadotrofinas induzido pela GnRH. Face à presença ou ausência de olfato o HHI divide-se em dois síndromes: HHI com hiposmia/anosmia ou Síndrome de Kallmann (SK) e HHI com olfacto normal (HHIn). HHIn representa cerca de 40% dos casos de HHI. O HHI pode ser devido a diferentes mutações identificadas em mais de quinze genes. Em cerca de 40%-50% do HHIn familiar e em ~17% dos doentes com a forma esporádica da doença, têm sido identificadas mutações no gene GNRHR. Neste trabalho descreve-se um caso esporádico de HHIn associado a uma mutação rara em homozigotia do gene GNRHR. CASO CLÍNICO: Doente sexo masculino, 37 anos, caucasiano, recorre à consulta para reavaliação hormonal. Refere cirurgia aos 6 anos por criptorquidia bilateral. Nascido de gravidez normal, sem história de consanguinidade dos pais; sem história familiar conhecida de atraso pubertário. Ao longo de anos fez terapêutica hormonal injectável (cuja designação desconhece) de forma irregular, que abandonou aos 27 anos por “não ver resultados”. Obesidade grave desde a adolescência. Peso máximo 150 Kg aos 34 anos. Perda de 56 Kg nos últimos 18 meses (dieta+exercício). Exame físico: ausência de pêlos na face; Alt. 192cm; Enverg. 197cm; Peso 96,3kg; IMC 26; ginecomastia bilateral; testículos atróficos (< 4mL) e micropénis. Sem alterações olfactivas, auditivas ou outras. Avaliação bioquímica: Testosterona total (TT) 71.5 ng/dL (VR 241-827); FSH 0.62 mUI/mL (VR 1.4-18.1); LH <0.07 mUI/mL (VR 1.5-9.3). Doseamentos das restantes hormonas hipofisárias normais; beta-gonadotrofina coriónica normal. A RM hipotálamo-hipofisária não revelou alterações e a densitometria óssea foi compatível com osteopénia do colo do fémur (Tscore:-1.3) e trabecular (Tscore:-1.8). Cariotipo 46,XY. Iniciou testosterona transdérmica 50 mg/dia. TT um mês após início da terapêutica: 737 ng/dL. ESTUDO MOLECULAR: Extração de DNA genómico de sangue periférico, amplificação enzimática dos 3 exões do gene GNRHR e sequenciação cíclica pelo método de Sanger. A análise molecular revelou a presença da alteração c.924_926delCTT (p.Phe309del), em homozigotia, no exão 3 do gene GNRHR. O estudo complementar dos progenitores revelou, em ambos, a presença em heterozigotia da referida mutação. DISCUSSÃO: Evidencia-se que no presente doente a alteração c.924_926delCTT foi detectada em homozigotia tendo-se comprovado o genótipo do mesmo através do estudo dos seus progenitores. Esta alteração já foi descrita em heterozigotia composta (associada a outra mutação diferente no mesmo gene) em dois doentes com HHI (não familiares)1,2 e em heterozigotia em dois familiares (pai e filha, ambos com atraso pubertário)2, sendo esta a primeira vez que é descrita em homozigotia. Trata-se de uma alteração extremamente rara em que o estudo molecular permite inferir que houve falência na ativação do eixo gonadotrófico desde a vida intrauterina. O defeito molecular identificado, poderá ter condicionado a integração/posicionamento do GNRHR na membrana celular, o que terá bloqueado o estímulo da GnRH que induz à síntese de FSH e de LH, permitindo explicar o HHI congénito do doente em causa

QUBO.jl: A Julia Ecosystem for Quadratic Unconstrained Binary Optimization

We present QUBO.jl, an end-to-end Julia package for working with QUBO (Quadratic Unconstrained Binary Optimization) instances. This tool aims to convert a broad range of JuMP problems for straightforward application in many physics and physics-inspired solution methods whose standard optimization form is equivalent to the QUBO. These methods include quantum annealing, quantum gate-circuit optimization algorithms (Quantum Optimization Alternating Ansatz, Variational Quantum Eigensolver), other hardware-accelerated platforms, such as Coherent Ising Machines and Simulated Bifurcation Machines, and more traditional methods such as simulated annealing. Besides working with reformulations, QUBO.jl allows its users to interface with the aforementioned hardware, sending QUBO models in various file formats and retrieving results for subsequent analysis. QUBO.jl was written as a JuMP / MathOptInterface (MOI) layer that automatically maps between the input and output frames, thus providing a smooth modeling experience